Sáng ngày 25 tháng 4 năm 1944, thực dân Pháp mang ông ra xử bắn. Ông ung dung ra pháp trường Tương Mai. Khi giám thị hỏi ông có cần bịt mắt hay không, ông trả lời không cần.

Quan toà hỏi ông có cần nói lời cuối cùng, ông nói:

"Trong cuộc đấu tranh sinh tử, giữa chúng tôi, những người mất nước và các ông, những kẻ cướp nước, sự hy sinh của những người như tôi là một sự dĩ nhiên. Chỉ biết rằng cuối cùng chúng tôi sẽ chiến thắng"

Cha cố hỏi ông có cần rửa tội hay không, ông đáp:

"Cảm ơn ông, tôi không có tội gì. Nếu yêu nước, cứu nước là có tội thì những người Pháp hiện giờ đang đấu tranh chống phát xít Đức bên nước ông đều là có tội cả. Ông hãy về hỏi xem họ có tội không?"

Viên giám thị thấy vậy đã nói: "Thật là một người cộng sản gang thép"

Hoàng Văn Thụ bị tử hình lúc 6 giờ sáng. Năm đó ông 35 tuổi.